Ontem, a plataforma aberta Kimi da Lua Escura anunciou o início dos testes públicos do cache de contexto (Context Caching). Essa tecnologia, mantendo o preço da API inalterado, pode reduzir em até 90% o custo de uso de modelos de linguagem grandes para textos longos para desenvolvedores, além de melhorar significativamente a velocidade de resposta do modelo.